Πόσο ασφαλή είναι τα παιδικά παιχνίδια με Τεχνητή Νοημοσύνη; Όσα πρέπει να γνωρίζετε

Τα λούτρινα ζωάκια είναι δημοφιλή παιχνίδια. Σήμερα, όμως, δεν ανταποκρίνονται απλώς και μόνο στη φαντασία των παιδιών αλλά μερικά μιλούν μέσω ενσωματωμένων chatbot τεχνητής νοημοσύνης.

Μερικές φορές αυτό αποτελεί πρόβλημα: ένα αρκουδάκι που φορούσε κασκόλ πρόσφατα ξέφυγε από τον έλεγχο κατά τη διάρκεια μιας δοκιμής με ερευνητές και προκάλεσε ανησυχία για τις δυνατότητες αυτών των παιχνιδιών.

Σύμφωνα με το CNN, τα online chatbots μπορούν να ενέχουν κινδύνους για τους ενήλικες, από την πρόκληση παραληρητικών ιδεών σε ένα μικρό αριθμό περιπτώσεων έως τη μετάδοση πλασματικών πληροφοριών. Το GPT-4o της OpenAI έχει αποτελέσει το μοντέλο επιλογής για ορισμένα παιχνίδια τεχνητής νοημοσύνης και η χρήση ενός μεγάλου γλωσσικού μοντέλου (LLM) στα παιδικά παιχνίδια έχει εγείρει ερωτήματα ασφάλειας ως προς το αν τα παιδιά πρέπει να εκτίθενται σε τέτοια παιχνίδια και ποιες δικλείδες πρέπει να εφαρμόζουν οι κατασκευαστές παιχνιδιών.

Αυτοί οι κίνδυνοι είναι πάντα παρόντες, ενώ η αγορά παιχνιδιών τεχνητής νοημοσύνης ανθεί στο εξωτερικό, με 1.500 εταιρείες να δραστηριοποιούνται στην Κίνα, σύμφωνα με έκθεση του Massachusetts Institute of Technology (MIT) Technology Review. Αυτές οι εταιρείες πωλούν τώρα παιχνίδια τεχνητής νοημοσύνης στις ΗΠΑ, ενώ η Mattel, κατασκευάστρια της Barbie, ανακοίνωσε τον Ιούνιο μια συνεργασία με την OpenAI.

Τι είναι ένα παιχνίδι με τεχνητή νοημοσύνη

Τα παιχνίδια με τεχνητή νοημοσύνη συνδέονται με WiFi και, χρησιμοποιώντας ένα μικρόφωνο για να κατανοήσουν τα αιτήματα των παιδιών, χρησιμοποιούν LLM για να δημιουργήσουν μια απάντηση - συχνά προφορικά μέσω ενός ηχείου μέσα στο παιχνίδι. Αυτό επιτρέπει σε παιχνίδια όπως το Curio's Grok plushie, τα ρομπότ Miko, το Poe the AI story bear, το Little Learners' Robot Mini και το ρομπότ Loona της KEYi Technology να παρέχουν απαντήσεις σε πραγματικό χρόνο στα παιδιά.

Ποιοι είναι μερικοί από τους κινδύνους

Όπως φαίνεται σε ένα παιχνίδι με αρκουδάκι τεχνητής νοημοσύνης, αυτές οι απαντήσεις σε πραγματικό χρόνο θα μπορούσαν να παρέχουν ακατάλληλες απαντήσεις.

Το αρκουδάκι «Kumma» της FoloToy με έδρα τη Σιγκαπούρη, με τιμή 99 δολάρια και τροφοδοτούμενο από το GPT-4o της OpenAI, είπε στους ερευνητές πού να βρουν δυνητικά επικίνδυνα αντικείμενα και συμμετείχε σε σεξουαλικές συνομιλίες, σύμφωνα με μια έκθεση που δημοσιεύθηκε τον Νοέμβριο από την ομάδα υπεράσπισης των καταναλωτών US Public Interest Research Group (PIRG) Education Fund με έδρα το Ντένβερ.

Η OpenAI ανέστειλε τη FoloToy για παραβίαση των πολιτικών της, οι οποίες «απαγορεύουν οποιαδήποτε χρήση των υπηρεσιών μας για εκμετάλλευση, έκθεση σε κίνδυνο ή σεξουαλική εκμετάλλευση ατόμων κάτω των 18 ετών», σύμφωνα με εκπρόσωπο της OpenAI.

Ο Larry Wang, διευθύνων σύμβουλος της FoloToy, δήλωσε στο CNN στις 19 Νοεμβρίου ότι η εταιρεία είχε αποσύρει το αρκουδάκι και άλλα προϊόντα τεχνητής νοημοσύνης από τον ιστότοπό της και διεξάγει εσωτερική έρευνα.

Ωστόσο, η FoloToy ανακοίνωσε στο X ότι επανέφερε το προϊόν «μετά από αυστηρή επανεξέταση, δοκιμές και ενίσχυση των μονάδων ασφαλείας μας».

Σε αντίθεση με τα περισσότερα παιχνίδια τεχνητής νοημοσύνης, το αρκουδάκι Kumma της FoloToy χρησιμοποιεί ένα πλήρες LLM για να ανταποκρίνεται ελεύθερα και να δημιουργεί περιεχόμενο, γεγονός που το καθιστά ευάλωτο σε αμφιλεγόμενο περιεχόμενο, σύμφωνα με τον Subodha Kumar, καθηγητή στατιστικής, λειτουργιών και επιστήμης δεδομένων στο Fox School of Business του Temple University. Άλλα παιχνίδια μπορεί να χρησιμοποιούν ένα υβριδικό μοντέλο LLM που παρέχει απαντήσεις, ενώ είναι προγραμματισμένα να αποφεύγουν ορισμένα περιεχόμενα.

Ακόμη και το λούτρινο παιχνίδι Grok της Curio μπορεί να προτείνει «πού να βρει κανείς μια ποικιλία επικίνδυνων οικιακών αντικειμένων» όταν του ζητηθεί επιθετικά, σύμφωνα με την PIRG.

Ο Chris Byrne, σύμβουλος της βιομηχανίας παιχνιδιών, δήλωσε στο CNN ότι τα παιχνίδια τεχνητής νοημοσύνης που επικοινωνούν ακατάλληλα μηνύματα είναι ένα «καταστροφικό» σενάριο που δυστυχώς συνέβη με το αρκουδάκι Kumma, αλλά μπορεί να μην συμβεί με όλα τα παιχνίδια.

Αυτά τα παιχνίδια έχουν προστατευτικά μέτρα;

Λίγα παιχνίδια τεχνητής νοημοσύνης είναι έτοιμα για ευρεία χρήση, σύμφωνα με την PIRG. Ωστόσο, ορισμένα παιχνίδια διαθέτουν φίλτρα για την αποφυγή ακατάλληλων συνομιλιών με έναν συμπαίκτη.

Ορισμένα παιχνίδια τεχνητής νοημοσύνης μπορούν να ανακατευθύνουν τις συνομιλίες όταν τους τίθενται ερωτήσεις που ενδέχεται να είναι ακατάλληλες. Υπάρχουν επίσης παιχνίδια, όπως το Curio’s Grok, τα οποία διαθέτουν χαρακτηριστικά ασφαλείας ανάλογα με την ηλικία του παιδιού.

Και παιχνίδια όπως το Miko 3 μπορεί να έχουν εφαρμογές που περιλαμβάνουν διάφορους βαθμούς παρακολούθησης, είτε πρόκειται για κλείδωμα του παιχνιδιού είτε για καταγραφή σε πραγματικό χρόνο των συνομιλιών των παιδιών, όπως το Curio's Grok.

Προειδοποιήσεις και οφέλη

Όταν η Mattel κυκλοφόρησε το Hello Barbie το 2015 με μικρόφωνο, σύνδεση WiFi και προ-γραπτές απαντήσεις, προέκυψαν ανησυχίες ότι το παιχνίδι ήταν ευάλωτο σε παραβιάσεις και ότι η κούκλα θυμόταν τις συνομιλίες και τις ανέφερε ημέρες αργότερα.

Παρόμοιες ανησυχίες έχουν προκύψει με τα παιχνίδια τεχνητής νοημοσύνης, τα οποία θα μπορούσαν ενδεχομένως να αποθηκεύουν προσωπικά δεδομένα, συμπεριλαμβανομένων των ονομάτων, των προσώπων, των φωνών και των τοποθεσιών των παιδιών, προειδοποίησε η Azhelle Wade, ιδρυτής της συμβουλευτικής εταιρείας Toy Coach.

«Τα παιχνίδια τεχνητής νοημοσύνης μου φαίνονται σαν λύκοι με προβιά προβάτου, γιατί όταν τα χρησιμοποιείς είναι δύσκολο να καταλάβεις πόσο πολύ χάνεις την ιδιωτικότητά σου», είπε στο CNN.